Родился в Курске (по др. данным в Бахмуте, ныне - Артёмовск, Украина) в семье немецкого подданного Карла Мартенса — владельца небольшого чугунолитейного завода.
Детство и юность прошли в Курске. Окончил Курское реальное училище и механико-технологический дополнительный класс.
В 1893 г. поступил в Санкт-Петербургский технологический институт, где сразу же приобщился к идеям марксизма.
В 1896 г. арестован за участие в создании первой в России марксистской политической партии "Петербургский союз борьбы за освобождение рабочего класса".
В 1897 г. как немецкий подданный выслан в Германию.
В 1902 г. завершил высшее образование, закончив Шарлоттенбургский политехнический институт (Германия).
В 1919 - 1921 г. — первый дипломатический представитель Советской России в США. Вёл за границей большую работу за международное признание Советского государства.
В 1921 г. вернулся в Москву, где вошёл в состав президиума ВСНХ и назначен председателем Главметалла.
В апреле 1922 г. по заданию В. И. Ленина, выезжал в Курск для изучения проблем Курской магнитной аномалии и сыграл видную роль в организации разработки её богатств.
Впоследствии Мартенс занимал многие руководящие посты в правительстве СССР, в частности, стал первым руководителем научно-технического отдела ВСНХ и Комитета по делам изобретений.
В 1924 г. создаёт и становится первым директором Всесоюзного научно-исследовательского дизельного института в Ленинграде.
В 1927 г. назначается по совместительству ректором Московского механического института им. М. В. Ломоносова.
Мартенс был в числе создателей первых советских ракет; последние 14 лет своей жизни - гл. редактор "Технической энциклопедии".
Скончался в Москве. Похоронен на Новодевичьем кладбище.
Изобретения:
Гармонический анализатор сложных периодических кривых. Патент России № 3606, заявл. 03.11.24, опубл. 30.09.27.
Насос для подачи горючей жидкости в двигатель внутреннего сгорания. Патент СССР № 6356, заявл. 13.02.26, опубл. 29.09.28.
Соч.:
К вопросу о вибрации поршневых двигателей. М., 1925.
Динамика поршневых двигателей. М., Госмашметиздат, 1932.
Технический словарь для работников тяжёлой промышленности. М., 1939